Lâm Xung đến quán trọ của Chu Quý nghỉ chân, uống rượu say làm thơ trên vách, Chu Quý nhận ra ông là Lâm giáo đầu, lại có thư giới thiệu của Sài Tiến nên vui vẻ chào đón, và đưa ông lên Lương Sơn gặp Vương Luân. Tuy nhiên, Vương Luân thấy ông tài năng vượt trội, sợ bị cướp ngôi nên thoái thác nói rằng "doanh trại nhỏ bé sợ làm lỡ tiền đồ của ngài". Lâm Xung nén giận xin được ở lại, nhưng bị bắt ép phải nộp "đầu danh trạng"(giết 1 mạng người và chặt lấy đầu để làm tin). Trong vòng 3 ngày, Lâm Xung xuống núi tìm người vãng lai để lấy "đầu danh trạng". Đến ngày thứ 3, ông gặp phải Dương Chí đi ngang, cả hai đánh nhau hơn 50 hiệp. Vương Luân thấy vậy liền can ngăn cả hai người và mời lên trại uống rượu. Dương Chí nể phục võ nghệ của ông, nên tặng vàng bạc cho Vương Luân để hắn thu nhận ông.

Bọn Tiều Cái, Ngô Dụng, Công Tôn Thắng, Tam hùng họ Nguyễn và Lưu Đường vì đánh cướp sinh thần cương, bị quan phủ truy bắt nên chạy lên Lương Sơn nhập đảng. Vương Luân vẫn bụng dạ hẹp hòi, không muốn thu nhận. Lâm Xung nhịn không được bèn giết chết hắn, tôn Tiều Cái làm thủ lĩnh. Ông cũng có công trong việc bắt được Hỗ Tam Nương trong trận đánh của quân Lương Sơn với Chúc gia trang nhằm gôp phần cho thắng lợi của quân Lương Sơn sau này.

Khi Tiều Cái bị chết, ông dẫn đầu các đầu lĩnh trong sơn trại tôn Tống Giang làm thủ lĩnh. Ban đầu, Tống Giang từ chối quyết liệt, sau nghe khuyên giải nên tạm ngồi ghế thủ lĩnh. Đợi tới khi đánh dẹp Tăng Đầu thị, giết chết Sử Văn Cung thì Tống Giang chính thức nhận ngôi thủ lĩnh Lương Sơn.

Sau khi phân định ngôi thứ, Lâm Xung ngồi ghế thứ 6, sao Thiên Hùng thuộc nhóm Thiên Cương tinh, đứng thứ 2 trong nhóm Ngũ Hổ tướng, chức vụ Mã Quân Xích Long tướng.